標準形式的凸優化問題是現代數學規劃的基礎。它由一個凸目標函數 $f_0$、凸不等式約束 $f_i$,以及 仿射 等式約束定義。透過在這些定義域的交集 $\mathcal{D} = \bigcap_{i=0}^m \text{dom } f_i$ 上定義問題,我們確保任何局部最優解都是全域最優解。
1. 標準形式的數學結構
該問題正式表述如下:
$$\begin{aligned} &\text{最小化} && f_0(x) \\ &\text{受限於} && f_i(x) \leq 0, \quad i = 1, \dots, m \\ &&& a_i^T x = b_i, \quad i = 1, \dots, p \end{aligned}$$
可行集定義為 $\text{dom } F = \{x \in \text{dom } f_0 \mid f_i(x) \le 0, i = 1, \dots, m, h_i(x) = 0, i = 1, \dots, p \}$。凸性的一個關鍵要求是等式約束必須為仿射($Ax = b$),因為非線性等式通常會產生非凸集合。
2. 几何上對象圖形的解釋
這種 象圖形形式問題 使我們能在「圖形空間」$(x, t)$ 中以幾何方式解釋優化問題。透過引入鬆弛變量 $t$,我們在 $(x, t) \in \text{epi } f_0$ 的條件下最小化 $t$。這表明可行集、任意子水平集和最優集本質上都是凸的。
3. 隱含與顯式陷阱
一個常見誤解是將約束轉移到目標函數中(使其隱含)能簡化問題。然而, 使約束變得隱含並未讓問題變得更容易分析或求解即使最終問題在名義上是無約束的也是如此。這在 Oracle 模型(黑箱模型)中尤為明顯,我們需付出代價評估 $f(x)$ 及其導數,但卻不知道其明確結構。
4. 現實世界應用
- 投資組合理論: 針對 4 種資產最小化風險 $\text{var}(c^T x) = x^T \Sigma x$(例如,資產 1 收益率 12%,標準差 20%)。
- 工程領域: 結構約束如 $y_i = 6(i - 1/3) \frac{F}{E w_i h_i^3} + v_{i+1} + y_{i+1}$。
- 機率領域: 損失風險約束 $\Phi^{-1}(\beta) \leq 0$。
🎯 核心原則
對於可微的 $f_0$,最優性條件為 $\nabla f_0(x)^T(y - x) \geq 0$ 對所有可行的 $y$ 成立。這表示梯度在最優點處必須是可行集的支撐超平面。